Наряду с анонсом процессоров Xeon Scalable пятого поколения компания Intel обновила и модельные ряды Xeon D и Xeon E. Изменений и нововведений в представленных чипах достаточно много. Так, модельный ряд Xeon D по традиции поделён на две ветви: Xeon D-1800 и Xeon D-2800.

Уже сериии Xeon D-1700 и D-2700 были адаптированы для работы в серверах периферийных вычислений и в составе сетевого оборудования. Напомним ключевые моменты:

• Интегрированный 100GbE-контроллер с RDMA iWARP/RoCE v2;
• Интегрированный коммутатор и обработчик пакетов у Xeon D-2700;
• До 32 линий PCI Express 4.0;
• Наличие Intel QAT, SGX и TME;
• Поддержка AVX-512, в том числе VNNI/DL Boost;
• Поддержка технологий TSN/TCC, критичных для систем реального времени.

Источник: Intel via ServeTheHome

Всё это характерно и для новых Xeon D-1800 и D-2800, ведь в их основе лежит прежняя архитектура Ice Lake-D. Речь всё ещё идёт о сочетании DDR4 и PCI Express 4.0, однако улучшения всё же есть: оптимизация техпроцесса позволила довести максимальное количество ядер до 22 против 20 у предыдущих моделей при неизменном теплопакете. Небольшой прирост производительности тоже есть — примерно 1,12-1,15х у старшей модели Xeon D-2800. Кроме того, процессоры Xeon D-1800, наконец, получили поддержку двух 100GbE-портов.

Источник: Intel

Одновременно с анонсом новых Xeon D состоялся анонс серии Xeon E-2400, которая заменит Xeon E-2300. Изменений здесь существенно больше. Во-первых, платформа перебралась с LGA 1200 на LGA 1700, а на смену ядрам Cypress Cove пришли Raptor Cove. И хотя E-ядер в составе CPU нет, Intel почему-то решила не активировать поддержку AVX-512. Во-вторых, существенный апгрейд претерпела подсистема памяти: вместо двух каналов DDR4-3200 теперь доступна пара каналов DDR5-4800.

Наконец, Xeon E-2400 получили поддержку PCI Express 5.0 — из 20 имеющихся процессорных линий 16 теперь способны работать именно в этом режиме. Подросла версия DMI с 3.0 до 4.0, а PCH новой платформы теперь предоставляет 20 линий PCIe 4.0 и 8 линий PCIe 3.0. Заодно с трёх до пяти выросло количество портов USB 3.2 Gen 2x2 (20 Гбит/с).

Источник: Intel via ServeTheHome

Максимальное число ядер в новой серии Xeon E осталось прежним — их всё ещё восемь, но благодаря существенно более быстрой памяти и использованию техпроцесса Intel 7 Ultra производительность новинок в среднем в 1,3 раза выше, чем у предшественников. Базовая частота подросла до 3,5 ГГц, в турборежим частота доходит до 5,6 ГГц, но при этом теплопакет не выходит за рамки 95 Вт. Нацелены Intel Xeon E-2400 на рынок серверов и облачных систем начального уровня.

Lattice Semiconductor представила на конференции для разработчиков Lattice Developers Conference новую эталонную платформу для ускорения разработки периферийных ИИ-решений использованием платформ NVIDIA Jetson Orin и IGX Orin. Сотрудничество Lattice с NVIDIA нацелено на повышение эффективности подключения сенсоров к приложениям для ИИ-обработки, что позволит расширить возможности сообщества разработчиков открытых платформ.

Согласно пресс-релизу, эталонная open source плата, основанная на энергоэффективных FPGA Lattice и аппаратной платформе NVIDIA Orin, предназначена для удовлетворения потребностей разработчиков в подключении к разнообразным датчикам и интерфейсам, при разработке масштабируемых высокопроизводительных периферийных ИИ-приложений с низким уровнем задержкидля нужд здравоохранения, робототехники, встраиваемых систем визуализации и т.д. Эталонная плата пока доступна лишь избранным клиентам, но Lattice планирует расширить доступ к решению и примерам приложений в I половине 2024 года.

Источник изображения: Lattice Semiconductor

«Мы рады сотрудничеству с NVIDIA, которое позволит расширить возможности наших эталонных решений, предлагая больше инноваций нашим клиентам и экосистеме, чтобы помочь упростить и ускорить внедрение периферийных приложений ИИ», — заявил директор по стратегии и маркетингу Lattice Semiconductor. В свою очередь директор по управлению встраиваемыми ИИ-продуктами NVIDIA отметил, что сотрудничество с Lattice позволит ускорить инновации в области обработки показаний датчиков и упростить развёртывание приложений ИИ «от периферии до облака».

McDonald's подписала многолетнее соглашение с Google Cloud Platform — гигант общепита станет использовать оборудование, данные и ИИ-решения Google в своих точках питания по всему миру, сообщает Datacenter Dynamics. Подключение заведений к цифровой инфраструктуре Google Cloud упростит управление объектами и оптимизирует рабочие и бизнес-процессы, благодаря чему улучшится опыт взаимодействия посетителей и персонала.

В первую очередь компания намерена использовать решения Google для периферийных вычислений, внедряя в ресторанах платформу Google Distributed Cloud для анализа работы оборудования и минимизации нарушения бизнес-процессов. Также ожидается, что McDonald's сможет быстрее улучшить собственные программные платформы, в том числе мобильное приложение и ПО в киосках для самообслуживания благодаря облачным вычислениям.

Источник изображения: Hat Trick/unsplash.com

А специальная команда Google в Чикаго будет сотрудничать с глобальным инновационным центром McDonald's Speedee Labs. В частности, ИИ Google будет применяться для поиска решений в сфере «ключевых бизнес-приоритетов». Ожидается, что комбинация бренда и масштаба McDonalds с компетенциями Google Cloud в области ИИ и технологических инновациях позволит переформатировать работу индустрии и даже изменить ожидания людей от заведений общепита.

McDonald's начала переезд в облако ещё в 2018 году. На тот момент компания намеревалась сотрудничать с AWS на протяжении пяти лет, а также перенести часть бизнес-процессов в Microsoft Azure. Журналисты запросили у компании комментарии того, как новая сделка с Google Cloud повлияет на предыдущие договорённости — ещё в прошлом году старший директор облачных и информационных служб McDonald's утверждал, что все корпоративные системы компании уже находятся в облаках.

Компания Scale Computing анонсировала первые устройства серии HE100, в основу которых положены компьютеры небольшого форм-фактора ASUS Next Unit of Computing (NUC). Решения, выполненные на платформе Intel Raptor Lake, предназначены для организации периферийных вычислений.

Максимальная конфигурация включает процессор Core i7-1370P (6Р+8Е; 20 потоков; 1,4–5,2 ГГц; 20–28 Вт; Intel Iris Xe Graphics). Объём оперативной памяти может составлять 16, 32 или 64 Гбайт. Допускается установка одного SSD формата M.2 (NVMe) вместимостью 1, 2, 4 или 8 Тбайт.

Дебютировали модели HE153 и HE153s: первая оснащена двумя сетевыми портами 2.5GbE, вторая — одним. На устройствах применена фирменная «самовосстанавливающаяся» программная платформа, позволяющая приложениям автономно функционировать на периферии. Прочие характеристики новинок пока не раскрываются.

Источник изображения: Scale Computing

Благодаря небольшим размерам три компьютера серии HE100 могут бок о бок монтироваться в серверное шасси типоразмера 1U. В качестве альтернативного варианта допускается установка нескольких устройств стопкой друг на друга. На фронтальную панель изделий выведены два порта USB 3.х Type-A. Сзади находится интерфейс HDMI.

В продажу новинки поступят в I половине 2024 года по цене от $5400 за кластер из трёх узлов.

Стартап Lonestar Data Holdings, развивающий идею строительства дата-центров на Луне, по сообщению ресурса Datacenter Dynamics, получил на развитие дополнительно более $800 тыс. Деньги поступили как от существующих, так и от новых инвесторов. По задумке Lonestar, лунный ЦОД обеспечит периферийные вычисления для будущих космических миссий, а также работу сервисов резервного копирования и аварийного восстановления данных.

В марте нынешнего года Lonestar объявила о привлечении $5 млн от Scout Ventures, Seldor Capital, 2 Future Holding, The Veteran Fund, Irongate Capital, Atypical Ventures и KittyHawk Ventures. После этого компания рассчитывала получить ещё $500 тыс., но в итоге удалось собрать даже больше — $825 тыс. Деньги будут направлены на дальнейшее развитие и ускорение практической реализации проекта. «Клиенты и инвесторы поддерживают нашу концепцию обеспечения безопасности критически важных данных на Луне», — сказал Крис Стотт (Chris Stott), генеральный директор Lonestar.

Источник изображения: Intuitive Machines

Изначально предполагалось, что Lonestar отправит микро-ЦОД на естественный спутник нашей планеты в 2022 году, но реализация миссии затянулась. Позднее стартап сообщил, что запустит аппарат во II квартале 2023-го, но и эти сроки выдержать не удалось. Как теперь говорится, старт должен состояться в ноябре нынешнего года. После этого на Луну будет отправлен второй посадочный модуль с накопителем вместимостью 8 Тбайт. Lonestar сотрудничает с компанией Intuitive Machines, которая отвечает за выполнение коммерческих лунных программ.

Американская компания Cloudflare, предоставляющая услуги CDN, по сообщению Datacenter Dynamics, будет использовать ускорители NVIDIA в своей глобальной edge-сети для обработки ресурсоёмких нагрузок ИИ, в частности, больших языковых моделей (LLM). Как отмечает ресурс NetworkWorld, инициатива носит название Workers AI. Заказчики смогут получать доступ к мощностям устройств NVIDIA для реализации своих ИИ-проектов.

Cloudflare также задействует коммутаторы NVIDIA Ethernet и полный набор софта NVIDIA для инференса, включая TensorRT-LLM и Triton Inference. Поначалу не планируется поддержка пользовательских ИИ-моделей: клиентам будет предоставляться доступ только к Meta✴ Llama 2 7B и M2m100-1.2, OpenAI Whisper, Hugging Face Distilbert-sst-2-int8, Microsoft Resnet-50 и Baai bge-base-en-v1.5. В будущем этот перечень планируется расширять.

О моделях ускорителей, которые возьмёт на вооружение Cloudflare, ничего не говорится. Но отмечается, что к концу 2023 года решения NVIDIA будут внедрены более чем в 100 городах, а в течение 2024-го они появятся почти во всех зонах присутствия Cloudflare. Глобальная edge-сеть компании использует ЦОД более чем в 300 городах по всему миру.

Источник изображения: NVIDIA

Ещё одной новой инициативой Cloudflare в области ИИ является Vectorize — векторная база данных. Она поможет разработчикам создавать приложения на основе ИИ полностью на платформе Cloudflare. Говорится, что Vectorize получит интеграцию с Workers AI. Наконец, готовится AI Gateway — система оптимизации и управления производительностью, предназначенная для работы с ИИ-приложениями, развёрнутыми в сети Cloudflare.

Молодая компания Axelera AI B.V. сообщила о начале поставок платформы Metis AI, разработанной специально для ускорения ИИ-задач на периферии. Стартап, основанный в 2021 году, получил финансирование на сумму более $50 млн. Чип Axelera основан на открытой архитектуре RISC-V. В базовом варианте платформа Metis AI обеспечивает производительность до 39,3 TOPS. Увеличив тактовую частоту, быстродействие можно довести до 48,16 TOPS.

Изделие предлагается в различных вариантах исполнения, включая карты расширения PCIe (FHHL), модули М.2 2280 и полноценные системы для задач машинного зрения. В частности, карты PCIe AI Edge доступны в версиях с одним и несколькими чипами с общей производительностью до 856 TOPS. Утверждается, что платформа Metis AI обладает высокой энергетической эффективностью — это важно при организации ИИ-вычислений на периферии.

Источник изображений: Axelera AI B.V.

Изделия Metis AI используют чипы Axelera Metis AIPU, содержащие четыре ядра для in-memory вычислений. Объём SRAM-кеша L1 составляет 16 Мбайт, кеша L2 — 32 Мбайт. Диапазон рабочих температур простирается от -40 до +85 °C. Гарантирована совместимость с Ubuntu 20.04/22.04 и Yocto. Разработчикам доступен набор инструментов Voyager SDK и фирменный компилятор TVM, который включает в себя средства оптимизации.

Модуль Axelera M.2 в формате 2280 наделён 512 Мбайт памяти LPDDR4x и одним чипом Axelera Metis AIPU. Энергоэффективность достигает 15 TOPS в расчёте на 1 Вт. Задействовано пассивное охлаждение; интерфейс подключения — PCIe 3.0 х4. Цена составляет €150.

В свою очередь, карты Axelera PCIe AI Edge доступны в версиях с одним (+1 Гбайт набортной RAM) и четырьмя чипами Axelera Metis AIPU: в первом случае быстродействие достигает 214 TOPS (INT8), во втором — 856 TOPS. Устройства выполнены в виде однослотовых карт с интерфейсом PCIe 3.0 х4 и PCIe 3.0 х16. Применена система активного охлаждения с вентилятором. Цена составляет около €200 и €500 соответственно.

Американский телеком-оператор Verizon представил необычное трейлерное решение — как сообщает пресс-служба компании, мини-ЦОД на колёсах, получивший название Mobile Onsite Network-as-a-Service (NaaS), обеспечивает создание частной мобильной сети 4G/5G, связанные периферийные вычисления (MEC), поддержку SD-WAN, а также соединение со спутниками.

Высокая скорость подключения и низкий уровень задержки в зоне работы трейлера позволяет применять оборудование в разных сферах, обеспечивая высокий уровень конфиденциальности и безопасности. Контейнер занимает площадь всего около 1 м². Управление сетью и вычислениями может осуществляться локально.

Источник изображения: Verizon

Впервые Mobile Onsite NaaS был задействован в кампусе Lockheed Martin в Колорадо (США). По данным телеком-оператора, готовое к эксплуатации решение удалось развернуть на месте всего за несколько часов, примерно за то же время завершилось тестирование спутникового подключения. Похожий прототип компания представила ещё в 2021 — проект THOR с похожей функциональностью создавался в качестве выездного командного центра для военных и базировался на шасси Ford.

Новое решение найдёт применение в сегменте коммунальных услуг, сельском хозяйстве, производстве, для организации медийных мероприятий и в других отраслях, где потребуется использование частных 5G-сетей и поддержка периферийных вычислений — включая работу по заказу структур, ответственных за обеспечение безопасности. Это обойдётся гораздо дешевле, чем установка стационарного оборудования. Ещё одна сфера применения — в качестве мобильной лаборатории (Mobile Lab as a Service) для выездного тестирования и отладки сотовых технологий.

Amazon Web Services (AWS) совместно с Ericsson разработали передовую ИИ-систему машинного зрения с применением 5G-технологий. Инновационный механизм будет использоваться для раннего обнаружения дефектов на производстве электромобилей компании Hitachi.

Источник изображения: Ericsson

Как сообщают в компаниях-партнёрах, система внедрена на заводе Hitachi Astemo Americas в Кентукки и будет использовать видеопоток с разрешением 4К, систему ИИ, облако и частную сеть 5G для обнаружения на производственных линиях дефектов на субмиллиметровом уровне. Утверждается, что возможна одновременная проверка до 24 сборочных компонентов.

В новой системе использовано оборудование Ericsson Private 5G, а также платформа AWS Snowball Edge, на которой работает система видеоаналитики Hitachi. Snowball обеспечивает сбор данных и их локальную обработку или отправку в «большое» облако. Платформа поддерживает инстансы EC2, сервис IoT Greengrass для создания и управления сетью IoT-устройств, а также Kubernetes. Как сообщают в Ericsson, важно, что такие решения применяются уже сегодня.

Ранее Ericsson уже внедряла частные 5G-сети на производственной площадке в Таллине (Эстония), а также в горнодобывающей промышленности в Южной Африке. Также аналогичный проект опробован в ЦОД Fujitsu в ноябре 2022 года — частная сеть 5G использовалась роботом с 4К-камерой, патрулирующим помещения, а данные передавались на обработку ИИ-системе.

Британская компания DataQube, занимающаяся разработкой и строительством дата-центров для периферийных вычислений, подала заявление о банкротстве. Как сообщает DataCenter Dynamics, 29 августа её кредиторы встречались для выбора ликвидаторов и формирования ликвидационного комитета.

Причины подачи компанией соответствующего заявления достоверно неизвестны, но последний общедоступный отчёт датируется 31 декабря 2021 года. На тот момент компания доложила об отрицательном балансе на сумму $247 150, хотя годом ранее баланс был положительным и составлял $36 600. Тогда же DataQube сообщила о растущих задолженностях перед кредиторами.

Вместе с тем глава компании Стивен Джон Пасс (Stephen John Pass) подал месяц назад в британскую Регистрационную палату заявление об открытии нового бизнеса Iconic Data Centres. При этом новая компания демонстрирует изображения стоек DataQube и даже заявляет о том, что разработала первые в мире «подульные» (podular) дата-центры. Речь идёт об особых модульных контейнерных ЦОД, каждый модуль в которых фактически представляет собой полнофункциональный микро-ЦОД.

Источник изображения: DataQube

Основатель и бывший глава DataQube Дэвид Джей Киган (David J Keegan) уже раскритиковал заявление Iconic Data Centres о том, что компании якобы принадлежит честь разработки «подульных» масштабируемых ЦОД DataQube, заявив, что именно он и никто другой давно придумал соответствующий дизайн. О создании таких ЦОД действительно сообщала сама DataQube. Также на ресурсах Iconic присутствуют отсылки к инфраструктуре ЦОД, вероятно, разработанной ещё в DataQube. В самих компаниях характер связей нового бизнеса с прежним не комментируют.